Mois : mars 2023

Industrialisation de la manipulation de l’information grâce l’intelligence artificielle : repenser l’analyse des mouvements d’opinion.

L’information est une arme puissante utilisée par de nombreux acteurs. L’enquête story killers¹ portant sur des entreprises spécialisées dans la diffusion de fausses informations dans les grands médias en est une des démonstrations. Les Fake news, les deep fakes ou plus généralement la manipulation de l’information pour servir des objectifs politiques ou économiquessont maintenant courantes. Dans ce contexte, la démocratisation de l’utilisation de l’intelligence artificielle peut permettre une industrialisation des campagnes d’opinion manipulées.

Comment les grandes entreprises peuvent-elles identifier ces faux mouvements ? Comment peuvent-elles réagir ?

Nous vous en parlions il a quelques mois, l’astroturfing est un véritable outil de manipulation.

Depuis la naissance des réseaux sociaux et en particulier du web conversationnel tout a chacun peut s’exprimer et participe à la fabrication de l’opinion. Jusqu’ici la manipulation était opérée par des individus servant des intérêts plus ou moins louables. Le Parti des 50 centimes en République Populaire de Chine est la plus grande communauté d’astroturfers du monde. Elle comptait 300 000 membres en 2008. Le nom du parti des 50 centimes fait référence aux 50 centimes de Yuan que gagnent les membres pour chaque message posté.

Bing Liu, un expert en data mining de l’université de l’Illinois aux États-Unis, estime qu’un tiers des commentaires sur Internet sont faux et servent à créer une image positive d’une marque, qu’ils soient postés manuellement ou par des « bots ». Différencier les messages postés par de véritables comptes appartenant à des personnes et par de faux profils devient de plus en plus difficile.

Par conséquent, les véritables mouvements populaires s’en retrouvent affaiblis ou utilisés.

En effet, l’astroturfing n’a pas pour objectif de construire un mouvement d’opinion de toute pièce mais bien de prendre comme fondement une réalité sociale et/ou sociétale. On peut citer les campagnes L214 qui se fondent sur des idées politiques partagées dans la société. Dans le cadre de ces campagnes, on observe plusieurs tweets qui sont des exacts copiés-collés les uns des autres. Ces contributions permettent de faire du volume et de capitaliser sur les revendications sociétales préexistantes. Bien-être animal, écologie, modèles d’agriculture plus soutenable sont autant de sujets de plus en plus présents dans le débat public. Les campagnes de L214 capitalisent donc grâce à l’astroturfing au profit notamment des start-up de création de viande in-vitro ou des industriels du soja basés aux États-Unis. Les effets ne sont pas immédiats mais la stratégie est pensée sur le long terme et vise à préparer les sociétés à de nouveaux modes de consommations.

Alors, en quoi l’intelligence artificielle a-t-elle à voir avec de telles campagnes ? Avec l’intelligence artificielle, on passerait d’une activité de manipulation artisanale à une activité industrielle.

Dans ce contexte, les entreprises doivent être d’autant plus attentives et devraient se doter d’outils performants permettant d’identifier ce type de pratique. Analyser les réseaux sociaux avec des critères quantitatifs ne suffit plus. Une analyse qualitative est essentielle afin de comprendre les forces en présence, les communautés mobilisées et les cibles potentielles de l’astroturfing pour adapter la stratégie en conséquence et identifier ses vrais faux ennemis.

Lors de la propagation de fausses informations, il convient de rectifier au plus vite, à un moment où vous êtes encore crédible pour le faire. Lors d’une campagne de propagande, la réactivité va ici aussi être la clé pour remettre les faits au centre du débat.

Grâce à une analyse fine des cartographies de conversation et des « bots », une stratégie réactive peut être mise en place plus rapidement et contrer les feux naissants sur les réseaux sociaux.

---

¹ Pendant des mois, une centaine de journalistes internationaux ont enquêté sur les opérations d’influence en ligne et sur la manipulation des réseaux sociaux par des entreprises spécialisées. Ces « mercenaires » de l’information ont été utilisé dans le cadre de campagnes politiques par exemple.

Se préparer aux menaces cyber nécessite toujours d’investir, ce qui signifie être parfois vu comme un centre de coûts, alors que les répercussions positives ne sont pas toujours immédiates. Autrement dit, investir dans la cybersécurité, comme dans la sûreté d’une manière générale, n’apporte pas de bénéfice immédiat. Ce qui n’aide pas toujours à ce que les mesures décidées soient suivies d’effet.

Cependant, le risque est bien réel. Lors d’une attaque, les impacts, notamment réputationnels et financiers, sont directs et dévastateurs. Face à une menace informatique croissante et en mutation, l’anticipation et la prévention sont primordiales. Qui veut la paix prépare la guerre. Rechercher à améliorer sa résilience devient plus qu’une nécessité. La menace est en hausse continue : l’ANSSI a eu connaissance de 1082 intrusions avérées dans les Systèmes d’Information en 2021, contre 786 en 2020. Il est, de fait, nécessaire de prévoir des mécanismes de gestion de crise en amont pour se préparer à toutes les éventualités. Toutes les entreprises seront, un jour ou l’autre, confrontées à une crise cyber.

Nous faisons face, hélas, à une amélioration constante des capacités des acteurs malveillants, à une professionnalisation de plus en plus poussée. Le ciblage reste quant à lui assez large, et touche autant le secteur public que privé, avec les PME comme premières exposées. Les objectifs visés étant très différents. Cependant, pour qu’une menace cyber soit réelle, il faut d’une part qu’une vulnérabilité soit exploitable et d’autre part que l’attaquant ait un intérêt à attaquer. Les motivations sont souvent multiples : elles peuvent être fondés sur la curiosité (le but in fine n’est pas de voler mais de tester les mesures de sécurité d’un organisme), sur le prestige, sur l’espionnage, sur la nuisance (la vengeance), pour la propagation d’une idéologie (initié par un groupe de personnes, comme les Anonymous) ou encore l’extorsion de fonds.

Les attaques à finalité lucrative et crapuleuse sont les plus récurrentes. Cependant, il ne faut pas pour autant omettre l’espionnage industriel et économique qui reste la première motivation des attaques. Certaines puissances étatiques sont parfois à la manœuvre. Entre Ransomware (cybermenace la plus répandue où les données sont prises en otage et les pirates demandent une rançon), Phishing (l’envoi de courriels usurpant l’identité d’acteurs privés ou publics pour obtenir des informations), fuite de données et attaques DDOS (Distributed Denial Of Service Attack – il s’agit de l’envoi de milliers de données en même temps vers une cible pour rendre son serveur inaccessible), les attaques se multiplient.

De grandes cyberattaques ont marqué des tournants dans le domaine du cyberspace et dans la société en général.

La découverte du Ver Stuxnet en 2010 au sein d’installations nucléaires iraniennes qui avait pour but d’espionner au profit des Etats-Unis et d’Israël et de saboter les systèmes industriels. Cette attaque a démontré le pouvoir d’un logiciel malveillant de potentiellement déclencher un conflit mondial.

En 2017, le tristement célèbre » logiciel Wannacry a impacté plus de 300 000 appareils dans plus de 150 pays, et a duré plus de 4 jours. Des infrastructures indispensables ont même été infectées. Ce fut l’un des ransomware les plus dévastateurs, les préjudices s’élèvent à plusieurs milliards de dollars de dégâts selon les estimations d’Europol.

Not Petya a aussi constitué une des attaques informatiques des plus couteuses de l’histoire. L’impact financier mené au niveau mondial contre toutes les entreprises a été chiffré par l’entreprise Française Saint-Gobain à hauteur de 250 millions d’euros. La cyberattaque mondiale a infecté majoritairement l’Ukraine puis s’est répandue au sein de milliers d’entreprises européennes. Ce Ransomware était plutôt destiné à effacer les données et les écraser qu’à réclamer une rançon.

Maîtriser le risque numérique, pour éviter une crise cyber de grande envergure susceptible de paralyser tous les systèmes informatiques d’une entreprise, apparaît fondamental. Les attaques se multiplient et touchent tousles domaines : autrement dit une attaque cyber est aujourd’hui quasiment inévitable. Préparer un plan de gestion de crise à froid est dès lors essentiel. Demain, l’organisation responsable, résiliente et génératrice de confiance pour ses clients sera celle qui capable de maîtriser, d’affronter et de se relever d’une crise cyber.

Le directeur de la cellule de crise est en général le plus gradé : cela va souvent avec le mandat social. Il ou elle est ainsi responsable au sens juridique si la gestion de la crise venait à être remise en cause.

Il occupe un rôle central : il décide de l’armement de la cellule de crise et de sa fermeture. Il choisit la stratégie de réponse à mettre en œuvre, les objectifs et les priorités. Il a la charge de protéger la réputation de l’organisation. Il définit également les KPI (Key Performance Indicator), c’est-à-dire « on aura réussi cette gestion de crise si ». Le directeur doit être capable de prendre des décisions et d’agir face à l’urgence et au stress. Il garde du recul et veille à combattre les biais cognitifs.

Sa principale responsabilité est l’anticipation. Il forme un binôme avec le coordinateur (voir notre article précédent : https://www.eha-consulting.com/le-coordinateur-de-crise/ ) qui a la charge de sa mise en œuvre. Les scénarios sont d’abord travaillés en commun, lors d’une réunion de réflexion de groupe, puis chaque membre doit travailler les scénarios de son domaine d’expertise. Ce binôme permet d’assurer l’intérim en cas de vacance de la fonction directeur, car le coordinateur, tel la tour de contrôle ne quitte pas la cellule de crise.

Le directeur de la cellule de crise, est aussi porte-parole et représente l’organisation devant les parties-prenantes clés (médias et les autorités) il doit donc pouvoir quitter la cellule sans perturber son fonctionnement.

Les autres membres de la cellule de crise, tout comme l’organisation, doivent avoir confiance en lui. Sa personnalité a un impact sur la libre expression des autres fonctions de la cellule, il doit rassembler les équipes. L’empathie du directeur est un atout : l’opinion de chacun doit pouvoir s’exprimer avant la prise de décision, et ainsi mettre à profit l’intelligence collective de l’ensemble de la cellule de crise
En revanche, au moment de la prise de décision, les acteurs doivent s’aligner et mettre en œuvre.

Il incombe à chaque membre de la cellule de crise de prendre en compte les décisions prises et de cesser de les questionner. Le directeur ne « fait rien » : il « fait faire ». L’équipe de crise doit être solidaire, derrière son chef.
C’est au moment du RETEX que les membres pourront donner leur avis de nouveau sur la décision qui a été prise. Ce moment, post crise, est nécessaire pour tirer les leçons de la crise vécue, et capitaliser l’expérience commune, c’est le directeur de la cellule de crise qui doit s’assurer que le retex est conduit.

Rencontre insolite :

L’intelligence collective et le « leader facilitateur », deux facteurs de réussite d’une gestion de crise.

Robert de Quelen, expert en matière de leadership et d’organisation et auteur du livre Travailler autrement avec l’intelligence collective, paru aux éditions Leduc, a partagé avec nous sa vision de la gestion de crise. L’intelligence collective et la notion de « leader facilitateur » ont été identifiés comme deux clés essentielles.

Instaurer la confiance au sein de la cellule de crise :

La diversité d’opinion est primordiale au sein d’une cellule de crise afin de s’assurer d’avoir envisagé chaque situation et de limiter les biais cognitifs. Cette diversité peut se développer seulement si les membres de la cellule de crise ont établi un climat de confiance entre eux.

Savoir que l’on peut s’appuyer sur les capacités de ses collègues, choisis pour leur expertise dans leurs domaines respectifs, est une des clés pour un fonctionnement fluide de la cellule de crise. De plus, il est important de respecter le cadre des processus de résolution de la crise, en suivant les étapes établies par le plan de crise. L’objectif est de se concentrer sur la problématique à résoudre en dépassant les « jeux d’ego » et de positionnement. Après la phase de diagnostic dans laquelle on encourage la divergence des points de vue, on va mettre en place une hybridation des idées, combinant les hypothèse/suggestions des divers membres de la cellule. On évite ainsi les angles morts et on dépasse les biais cognitifs tels que l’excès d’optimisme (ou de pessimisme) pour une appréciation plus réaliste de la situation. Ces mécanismes d’intelligence collective assurent un fonctionnement optimal de la cellule de crise.

Par ailleurs, il existe une méthode efficace afin de faire participer tous les membres de l’équipe de gestion de crise en gommant les différences de personnalité ou de statut : le tour de table silencieux. Ce mode de réflexion, mis en place par le directeur, permet à chacun de s’exprimer à son tour, dans un ordre rigoureux, sans être influencé par les autres (surtout s’ils bénéficient d’une plus haute autorité hiérarchique ou morale). Le directeur pose une question sur la manière de résoudre une problématique de la crise en cours et chaque membre de la cellule y répond par écrit. Cette méthode présente l’avantage de donner la parole à tout le monde équitablement et surtout d’éviter les bavardages inutiles.

L’intelligence collective :

D’après Robert de Quelen, l’intelligence collective se définit comme « ce qui se passe lorsque les conditions sont réunies pour qu’un groupe crée plus de valeur ensemble que chacun des individus qui le composent n’en produirait séparément. 1+1=3 ». L’auteur évoque en particulier deux principes : l’avocat du diable et la distinction entre la personne et le rôle.

L’avocat du diable est une technique destinée à éliminer les biais cognitifs. Une personne est spécifiquement désignée pour repérer et indiquer les points faibles d’un raisonnement. Sa mission est aussi d’imaginer les pires situations d’évolution de la crise. Dans l’idéal, à chaque tour de table, une personne différente prend ce rôle de sceptique, de briseur de consensus. Cela permet de vérifier la solidité de l’argumentation. Une précaution indispensable lorsque l’on travaille l’anticipation.

La distinction entre la personne et le rôle est également essentielle, et très difficile. Dans le cas de l’avocat du diable, elle rend acceptables ses remarques car en les exprimant, il ne fait que jouer son rôle avec professionnalisme. On ne peut plus les écarter comme autant d’opinions personnelles. Le fait de jouer ce rôle chacun son tour donne aux membres de la cellule de crise l’occasion de s’entraîner à considérer la situation sous divers points de vue. Cela fait donc partie du processus cognitif. De plus, la distinction entre la personne et le rôle permet aux membres de la cellule de crise de se remplacer les uns les autres si nécessaire, en s’appuyant sur les fiches descriptives du rôle, par exemple en cas d’absence d’un membre.

Ainsi, si l’un des membres de la cellule a le rôle de responsable communication, il pourra également assumer le rôle de l’historien en attendant que ce dernier arrive. Cette flexibilité basée sur les processus est une partie intégrante de l’intelligence collective.

Ce processus de réflexion commun doit avoir été appris et pratiqué en amont grâce à des formations et des exercices. Les retours d’expériences réalisés ensuite par un tiers sont également primordiaux afin de pouvoir reproduire les processus qui ont été efficaces.

Le leader facilitateur :

La posture de leader facilitateur a plusieurs avantages pour le directeur de la cellule de crise. Il lui permet de limiter ses propres biais cognitifs en partageant sa réflexion avec son équipe. Cela ne signifie pas pour autant que la décision finale est collégiale. Le directeur reste in fine responsable de la décision. La façon d’envisager le management d’une cellule de crise ne remet pas en cause la manière dont la décision est prise, mais la façon dont elle est préparée.

Le rôle de leader facilitateur permet également de maximiser l’intelligence collective. Le directeur devient alors le médiateur de la cellule pour laisser tous les membres présents partager leurs réflexions, leurs points de vue. Il est important dans ce cas que le directeur prenne la parole en dernier lors des tours de table pour que chacun puisse discuter librement sans être influencé par l’opinion du manager. C’est un point clé pour optimiser la méthode de l’intelligence collective dans le cadre d’une cellule de crise.

Enfin, le modèle de leader facilitateur est bien plus efficace aujourd’hui alors que les crises se succèdent. En effet, un incident peut facilement avoir des conséquences sur la réputation de l’entreprise, dans le domaine juridique ou financier. Les polycrises rendent difficile voire impossible une prise de décisions efficiente par une seule et même personne, d’où l’intérêt de la combinaison des membres de la cellule de crise.

L’expertise des membres de la cellule de gestion de crise est certes importante, mais son management est une partie intégrante de sa réussite. La combinaison de l’intelligence collective et du « leader facilitateur » permet donc une résolution de crise efficace en maximisant la réflexion des membres de la cellule. Le directeur de la cellule de crise peut dès lors prendre la meilleure décision grâce à une réflexion collective tout en limitant les biais cognitifs.

Biographie de Robert de Quelen :

Il est l’auteur de deux livres : Alice au pays des projets, publié en 2017 aux éditions Afnor et Travailler autrement avec l’Intelligence collective, publié en 2021 aux éditions Leduc, collection Alisio.